Năm 1954, tiểu khu Phú Sơn thuộc thị xã Thanh Hóa được hình thành sau khi hợp nhất xóm Trần Phú và xóm Lam Sơn.

Khu vực ga Thanh Hóa ở phường Phú Sơn từng bị đánh bom ác liệt, nhân dân trong vùng phải đi sơ tán. Sau năm 1968, sau khi Mỹ hạn chế ném bom, nhân dân lại trở về địa phương.

Năm 1981, chuyển tiểu khu Phú Sơn thành phường Phú Sơn.

Năm 2002, thành lập phường Tân Sơn trên cơ sở một phần diện tích và dân số của phường Phú Sơn.[2]